Trước khi hình thành chợ Ðông Ba, bên ngoài cửa Chánh Ðông (tức cửa Ðông Ba theo cách gọi dân gian) dưới thời Gia Long có một chợ lớn mang tên Quy Giả thị, nghĩa là chợ cho những người trở về. Tên chợ đánh dấu sự kiện trở lại Phú Xuân của quan quân nhà Nguyễn khi đánh thắng nhà Tây Sơn[3]. Ngoài ra, do được đặt ở gần cửa Chánh Đông của kinh thành nên chợ còn có tên là Đông Hoa.[4]

Năm 1885, kinh đô thất thủ, Quy Giả thị bị thực dân Pháp đốt sạch.

Năm 1887, vua Đồng Khánh cho xây dựng lại và đổi tên thành chợ Đông Ba (do kỵ tên húy của bà Hồ Thị Hoa, mẹ vua Thiệu Trị).

Đến năm 1899, trong công cuộc chỉnh trang đô thị theo phong cách phương tây, vua Thành Thái cho xây dựng lại chợ tại vị trí hiện nay. Còn Đình chợ cũ trở thành trường tiểu học Pháp-Việt Đông Ba.[5]

Năm 1967, chính quyền Sài Gòn cho phá chợ cũ và xây lại chợ mới. Công trình đang dang dở thì bị bom Mỹ trong chiến dịch Huế Xuân Mậu Thân (1968) bắn phá tan tành[3]. Sau ngày thống nhất đất nước, chợ được nâng cấp cải tạo lại với quy mô như hiện nay.[1]